Probabilistic user modeling is essential for building collaborative AI systems within probabilistic frameworks. However, modern advanced user models, often designed as cognitive behavior simulators, are computationally prohibitive for interactive use in cooperative AI assistants. In this extended abstract, we address this problem by introducing widely-applicable differentiable surrogates for bypassing this computational bottleneck; the surrogates enable using modern behavioral models with online computational cost which is independent of their original computational cost. We show experimentally that modeling capabilities comparable to likelihood-free inference methods are achievable, with over eight orders of magnitude reduction in computational time. Finally, we demonstrate how AI-assistants can computationally feasibly use cognitive models in a previously studied menu-search task.

贝叶斯优化（BO）是一种良好的方法，可以优化直接评估成本高昂的黑框函数。在本文中，我们解决了将专家知识纳入BO的问题，目的是进一步加速优化，到目前为止，该优化几乎没有得到关注。我们为这项任务设计了多任务学习体系结构，目的是共同吸引专家知识并最大程度地降低目标函数。特别是，这允许将专家知识转移到BO任务中。我们介绍了基于暹罗神经网络的特定体系结构，以处理来自成对查询的知识启发。具有模拟和实际人类专家的各种基准函数的实验表明，即使与目标函数相比，即使专家知识有偏见，提出的方法也会显着加速BO。

预测维护（PDM）是基于对系统状况的统计分析安排维护操作的任务。我们提出了一种人类的PDM方法，其中机器学习系统可以预测工作站集（计算机，笔记本电脑和服务器）中的未来问题。我们的系统与领域专家进行互动，以改善预测并引起他们的知识。在我们的方法中，域专家不仅像传统的活跃学习一样，不仅是作为正确标签的提供者，而且还包括作为明确的决策规则反馈的来源。该系统是自动化的，并且设计为易于扩展到新的领域，例如维护多个组织的工作站。此外，我们开发了一个在受控环境中可重复实验的模拟器，并在现实生活中的PDM大规模案例中部署该系统，其中数千个工作站用于数十家公司。

贝叶斯神经网络（BNNS）通过提供认知不确定性的原则概率表示，有望在协变量转移下改善概括。但是，基于重量的BNN通常会在大规模体系结构和数据集的高计算复杂性上挣扎。基于节点的BNN最近被引入了可扩展的替代方案，该替代方案通过将每个隐藏节点乘以潜在的随机变量来诱导认知不确定性，同时学习权重的点刻度。在本文中，我们将这些潜在的噪声变量解释为训练过程中简单和域 - 不合时宜数据扰动的隐式表示，从而产生了由于输入损坏而导致协变量转移的BNN。我们观察到，隐性腐败的多样性取决于潜在变量的熵，并提出了一种直接的方法来增加训练期间这些变量的熵。我们评估了分布外图像分类基准测试的方法，并显示出由于输入扰动而导致的协变量转移下基于节点的BNN的不确定性估计。作为副作用，该方法还提供了针对嘈杂训练标签的鲁棒性。

我们考虑创建助手的问题，这些助手可以帮助代理人（通常是人类）解决新颖的顺序决策问题，假设代理人无法将奖励功能明确指定给助手。我们没有像目前的方法那样旨在自动化并代替代理人，而是赋予助手一个咨询角色，并将代理商作为主要决策者。困难是，我们必须考虑由代理商的限制或限制引起的潜在偏见，这可能导致其看似非理性地拒绝建议。为此，我们介绍了一种新颖的援助形式化，以模拟这些偏见，从而使助手推断和适应它们。然后，我们引入了一种计划助手建议的新方法，该方法可以扩展到大型决策问题。最后，我们通过实验表明我们的方法适应了这些代理偏见，并且比基于自动化的替代方案给代理带来了更高的累积奖励。

近似贝叶斯计算（ABC）是具有顽固性函数模型的流行无可能推理方法。由于ABC方法通常依赖于比较观察到的数据和模拟数据的摘要统计数据，因此统计数据的选择至关重要。此选择涉及信息丢失和减少维度之间的权衡，并且通常是根据领域知识确定的。但是，手工制作和选择合适的统计数据是一项费力的任务，涉及多个试用步骤。在这项工作中，我们引入了一种用于ABC统计选择的积极学习方法，该方法可大大减少域专家的工作。通过参与专家，我们能够处理拼写错误的模型，这与现有的减小方法不同。此外，与现有方法相比，在模拟预算有限时，经验结果显示出更好的后验估计。

高斯过程（GPS）提供了对图表的推理和学习的原则和直接的方法。然而，缺乏用于时空建模的正义的图形内核已经备份了在图形问题中的使用。我们在图形上利用随机偏微分方程（SPDES）和GPS之间的显式链接，并导出捕获空间和时间交互的不可分离的时空图形内核。我们制定了随机热方程和波动方程的图形核。我们展示通过为图形提供新颖的时空GP建模的新型工具，我们在特征扩散，振荡和其他复杂交互中的实际应用中优先于现有的图形内核。

我们介绍一种用于推断和预测潜伏状态的方法，以便只能模拟观察，并且转换动态未知。在此设置中，观察的可能性不可用，并且只能从黑盒模拟器生成合成观察。我们提出了一种在有限数量的模拟中完成状态的似然推理（LFI）和状态预测的方法。我们的方法使用多输出高斯工艺进行状态推理，以及贝叶斯神经网络作为状态预测的转换动态的模型。我们改进了现有的推断任务的LFI方法，同时还准确学习过渡动态。所提出的方法对于使用计算昂贵的模拟来建模动态系统中的逆问题是必要的，如使用非静止用户模型的实验中所示。

最近的机器学习进展已直接从数据中直接提出了对未知连续时间系统动力学的黑盒估计。但是，较早的作品基于近似ODE解决方案或点估计。我们提出了一种新型的贝叶斯非参数模型，该模型使用高斯工艺直接从数据中直接从数据中推断出未知ODE系统的后代。我们通过脱钩的功能采样得出稀疏的变异推断，以表示矢量场后代。我们还引入了一种概率的射击增强，以从任意长的轨迹中有效推断。该方法证明了计算矢量场后代的好处，预测不确定性得分优于多个ODE学习任务的替代方法。

在这项工作中，我们引入了一种差异性私有方法，用于从垂直分区的数据\ emph {i.e。}生成合成数据，其中同一个人的数据分布在多个数据持有人或各方之间。我们提出了一种差异性隐私随机梯度下降（DP-SGD）算法，以使用变异推理在此类分区数据上训练混合模型。我们修改了安全的多方计算（MPC）框架，以将MPC与差异隐私（DP）相结合，以便有效地使用差异化的私有MPC来学习DP下在此类垂直分区数据的DP下的概率生成模型。假设混合物组件不包含不同方面的依赖性，则可以将目标函数分解为当事方计算的贡献的产物之和。最后，MPC用于计算不同贡献之间的聚集体。此外，我们严格地定义了系统中不同玩家的隐私保证。为了证明我们的方法的准确性，我们从UCI机器学习存储库上运行算法在成人数据集上，在此我们获得与非分区案例的可比结果。